Zimmer sinh ra tại Frankfurt am Main, Đức. Lúc còn là đứa trẻ, ông sống tại Königstein-Falkenstein, nơi ông học chơi piano tại nhà, nhưng chỉ học piano một thời gian ngắn do không thích sự khuôn phép của những bài học chính thống.[3] Ông chuyển đến London vào tuổi thiếu niên và theo học trường Hurtwood House.[4]

Trong một buổi phỏng vấn với Mashable vào tháng 2 năm 2013, ông nói về cha mẹ của mình "Mẹ của tôi rất yêu thích âm nhạc, và về cơ bản là một nhạc công, và cha tôi là một kỹ sư và nhà sáng chế. Nên, tôi bắt đầu tùy chỉnh piano của mình, ta có thể nói như vậy, thứ âm thanh làm mẹ tôi thở hổn hển một cách kinh dị, và cha tôi sẽ nghĩ rằng thật tuyệt khi tôi kèm thêm cưa và những thứ tương tự vào nhạc piano, vì ông nghĩ đó sẽ là một bước tiến trong công nghệ."[5]

Trong một buổi phỏng vấn với đài truyền hình Đức ZDF năm 2006, ông nhận xét: "Cha tôi mất khi tôi còn là một đứa trẻ, và tôi đã trốn thoát bằng cách nào đó qua âm nhạc, và âm nhạc đã trở thành người bạn tốt nhất của tôi."[6]

Trong một buổi phỏng vấn tháng 5 năm 2014, Zimmer nói rằng ông là người Do Thái, và tưởng nhớ lại cách mẹ ông trốn thoát sang Anh năm 1939.[7]